Do Proactive Agents Really Need an LLM to Decide When to Wake and What to Anchor?
主动代理真的需要LLM决定何时唤醒与锚定吗?
🧭 主动代理的触发决策优化
Purdue University · Microsoft · Michigan State University · Georgia Institute of Technology
用小型时间图学习模型代替LLM做触发决策,显著提升效率与准确性
📌 工作参考价值(4 点)
- 电商智能助手的主动推送场景:将用户行为事件转化为动态图,用TGL模型实时计算触发概率和实体重要性,只在概率超过阈值时才调用LLM生成文案,大幅降低推理成本。
- 推荐系统召回/排序的触发环节:借鉴TGL的图结构建模用户实时行为演化,生成触发信号与路由分数,可实现低延迟的个性化触发,适合部署在移动设备边缘端。
- 隐私敏感场景的设备端部署:220MiB BF16的极低内存占用和13.99ms的端侧推理速度,适合在用户设备本地处理活动流,避免原始数据上传,保护隐私。
- 架构设计思路:将原生的结构化事件流直接作为图输入,避免“结构化→文本→结构化”的冗余转换,可以用GNN替代LLM做事件的语义理解与重要性评估,业务中类似的结构化日志场景可复用此范式。